Trước cuộc xâm lược, có 3.900 người Do Thái sống ở Luxembourg, nhiều người trong số họ là dân tị nạn từ Đức và Áo.[2] Vào đêm ngày 10 tháng 5 năm 1940, khoảng 1.600 người trong số họ đã rời khỏi đất nước.[2] Sau khi Simon giới thiệu Luật Nuremberg, cuộc sống càng trở nên khốn khó đối với dân Do Thái. Cửa hàng, tài sản và tiền bạc của họ đều bị tịch thu và tất cả nhân viên người Do Thái bị sa thải. Họ không được phép vào bên trong các công trình công cộng hoặc nuôi thú cưng. Cho đến ngày 15 tháng 10 năm 1941, thêm 1.500 người Do Thái phải rời khỏi đất nước theo lệnh của nhà cầm quyền.[2] Gestapo còn hộ tống họ đến Pháp và Tây Ban Nha nhưng kể từ khi họ bị các nước này từ chối nhập cảnh, người Do Thái đã phải làm một cuộc hành trình bất tận.

Ngày 23 tháng 8 năm 1941, một lệnh giới nghiêm dành cho dân Do Thái và họ bị hạ xuống thành công dân hạng hai. Các giáo đường Do thái ở Thành phố Luxembourg và Esch-sur-Alzette đều bị phá hủy không thương tiếc;[10] một số ở Ettelbruck và Mondorf-les-Bains thì bị tàn phá nghiêm trọng. Đức Quốc xã còn tập trung nhiều nhất trong số 800 người Do Thái còn lại trong tu viện cũ ở Fünfbrunnen.[2] Rồi từ đây, họ bị trục xuất trên 7 chuyến xe lửa từ ngày 16 tháng 10 năm 1941 đến ngày 17 tháng 6 năm 1943 đi đến các khu ổ chuột ở Litzmannstadt và các trại tập trung tại Lublin và Theresienstadt, và từ năm 1943 đã trực tiếp đến trại diệt chủng Auschwitz.[2][11]

Một người Do Thái nổi tiếng còn sống sót là Alfred Oppenheimer, một thành viên của Consistoire (tương tự như các Hội đồng Do Thái tại những nước Đông Âu bị chiếm đóng). Ông cùng với gia đình bị trục xuất đến một trại tập trung, nơi vợ ông bị giết chết và sau đó được chuyển đến Auschwitz, nơi đứa con trai Rene của ông cũng chết vì nhiễm hơi độc. Alfred Oppenheimer đã sống sót ở trại tử thần và là một trong những nhân chứng tại phiên tòa xét xử Adolf Eichmann. Ông trở lại sống ở Luxembourg cho đến khi qua đời ở độ tuổi trên 90, và được biết đến với sự tham gia của mình nhằm giáo dục công chúng về chế độ phát xít và thảm họa diệt chủng Holocaust. Prix René Oppenheimer được tạo ra theo ký ức của con trai ông.

Ngày 17 tháng 6 năm 1943, Gustav Simon đã công bố Luxembourg chính thức trở thành Judenfrei (khu vực sạch bóng người Do Thái). Từ 683 người Do Thái bị trục xuất, chỉ còn lại 43 người sống sót.[2]